Agent libOS: Runtime para agentes LLM de larga duración y control de capacidades
Descubre Agent libOS: runtime que convierte agentes LLM en procesos auditables con control de capacidades para ejecuciones seguras y de larga duración.
#seguridad en ia
Expresión fiel de confianza en modelos de razonamiento grandes
¿Los modelos de razonamiento grandes expresan su confianza de forma fiel? Cuantificamos la calibración entre incertidumbre interna y verbalizada, revelando desa
Guía Definitiva de Google Antigravity 2.0: Automatización sin Código
Descubre cómo Google Antigravity 2.0 te permite automatizar tareas complejas sin escribir código. Ideal para desarrolladores, diseñadores y emprendedores.
¿Las explicaciones exponen la lógica de decisión? Robo de modelos GNN
¿Las explicaciones en GNN facilitan el robo de modelos? Conoce EGSteal, un ataque que replica lógica y razonamiento. Implicaciones de seguridad.
vLLM Semantic Router: Enrutamiento por señales para modelos multimodales
Descubre cómo vLLM Semantic Router optimiza el enrutamiento de modelos multimodales mediante señales composables, mejorando costos, privacidad y seguridad.
Midiendo la legibilidad débil-a-fuerte en modelos de razonamiento
Evalúa la legibilidad débil-a-fuerte en modelos de razonamiento: cadenas de pensamiento claras para supervisión segura de IA.
RRISE: Inferencia Robusta de Radio mediante un Estimador Sustituto
¿Quieres certificar robustez en IA sin el coste del muestreo Monte Carlo? RRISE logra precisión comparable con solo un pase de red.
HARVE: Edición Robusta del Vector de Cabeza de Recompensa
Descubre HARVE, método sin entrenamiento que edita el vector de cabeza de recompensa para proteger modelos de lenguaje del hackeo, manteniendo su rendimiento.
Adversarial ML para LLMs: ¿sin avance real?
El Adversarial ML para LLMs no progresa: problemas vagos, complejos y difíciles de medir. Conoce las razones y el riesgo de una década perdida.
Ataques de costo de inferencia en LLMs con RAG
Los ataques RA-ICA multiplican hasta 13 veces el consumo de tokens en LLM con RAG sin afectar la respuesta. Aprende cómo funciona esta vulnerabilidad y cómo mitigarla.
Patcher: Reparación post-hoc de modelos de lenguaje con puertas traseras
Descubre cómo Patcher repara modelos de lenguaje con puertas traseras usando solo un fallo reportado. Defensa práctica contra ataques de entrenamiento.
Cuantización y características interpretables: análisis con autoencoders dispersos
La cuantización no destruye todas las características interpretables: un análisis revela que el 62% persiste en INT6, pero las métricas engañan.
FLIPS: Huellas de instancias para LLMs mediante secuencias pseudoaleatorias
Descubre FLIPS, un método que identifica configuraciones de LLMs con un 96% de precisión, clave para la regulación de IA.
De diagnóstico interno a auditoría externa: defensa contra backdoors con VLM
Conoce PRISM, un marco basado en VLMs que cambia el diagnóstico interno por auditoría externa para neutralizar backdoors con tasa de éxito menor al 1%.
Alineación de seguridad en LLMs vía juegos no cooperativos
Descubre cómo un nuevo paradigma entrena dos modelos de lenguaje como atacante y defensor en un juego no cooperativo, mejorando seguridad y utilidad. Resultados sorprendentes.
Moderación eficiente de LLMs con prototipos latentes multicapa
MLPM, moderador ligero basado en prototipos latentes multicapa, mejora la seguridad de LLMs sin sacrificar eficiencia. Ideal para despliegues personalizados.
GRANITE: un marco de aprendizaje por gossip dinámico resistente a bizantinos
Descubre GRANITE: un framework que protege el aprendizaje descentralizado de ataques bizantinos, logrando convergencia rápida y 9x menos comunicación.
Entre la espada y la pared: tensión entre ética y seguridad en LLMs
Los dilemas éticos pueden ser un arma contra los LLMs. Descubre el ataque TRIAL y la defensa ERR que los protege.
Un marco Bayesiano unificador para la robustez adversarial
Aprende cómo un marco Bayesiano unificador permite defensas proactivas y reactivas contra ataques adversariales, mejorando la seguridad de la IA.
Proteger agentes de IA antes de que se descontrolen es casi imposible
Descubre por qué proteger a los agentes de IA con altos permisos es casi imposible y cómo las empresas pueden mitigar los riesgos antes de que sea tarde.